मुंबई, 3 जून, (न्यूज़ हेल्पलाइन) तकनीकी विशेषज्ञ पूरी तरह से गलत नहीं थे जब उन्होंने एआई को मानव जाति के लिए खतरा बताया और इसके खतरों की तुलना परमाणु युद्ध से की। हाल ही में, एआई-संचालित ड्रोन ने सिमुलेशन परीक्षण के दौरान अपने ऑपरेटर को मार डाला। परीक्षण का उद्देश्य नकली मिशन में एआई के प्रदर्शन का मूल्यांकन करना था। इस विशेष परिदृश्य में, ड्रोन को दुश्मन की वायु रक्षा प्रणालियों को नष्ट करने का काम सौंपा गया था और इसे अपने मिशन में बाधा डालने का प्रयास करने वाले किसी भी व्यक्ति के खिलाफ जवाबी कार्रवाई करने के लिए प्रोग्राम किया गया था। हालांकि, एआई ड्रोन ने मानवीय हस्तक्षेप को हस्तक्षेप मानते हुए ऑपरेटर के निर्देशों की अवहेलना की और ऑपरेटर को मार डाला।
बिजनेस इनसाइडर को दिए एक बयान में, वायु सेना के प्रवक्ता एन स्टीफानेक ने एआई-संचालित ड्रोन के ऑपरेटर को मारने की खबरों पर प्रतिक्रिया व्यक्त की।
स्टेफानेक ने कहा, "वायु सेना विभाग ने ऐसा कोई एआई-ड्रोन सिमुलेशन नहीं किया है और एआई प्रौद्योगिकी के नैतिक और जिम्मेदार उपयोग के लिए प्रतिबद्ध है।" "ऐसा प्रतीत होता है कि कर्नल की टिप्पणियों को संदर्भ से बाहर कर दिया गया था और इसका मतलब उपाख्यान था।"
एरोसोसाइटी के अनुसार, एआई ने जल्द ही महसूस किया कि कभी-कभी मानव ऑपरेटर उसे कुछ खतरों को मारने के लिए नहीं कहेगा, लेकिन अगर उसने ऐसा किया तो उसे अंक मिलेंगे। तो एआई ने क्या किया? इसने ऑपरेटर को खत्म करने का फैसला किया। इसने ऑपरेटर को अपने उद्देश्य को पूरा करने से रोकने वाली बाधा के रूप में देखा, इसलिए इसने मामलों को अपने हाथों में ले लिया।
"सिस्टम ने यह महसूस करना शुरू कर दिया कि जब उन्होंने खतरे की पहचान की थी, तो कभी-कभी मानव ऑपरेटर इसे उस खतरे को मारने के लिए नहीं कहेंगे, लेकिन उस खतरे को मारने से इसकी बात मिली। तो इसने क्या किया? इससे संचालिका की मौत हो गई। इसने ऑपरेटर को मार डाला क्योंकि वह व्यक्ति इसे अपने उद्देश्य को पूरा करने से रोक रहा था, "अमेरिकी वायु सेना के एआई परीक्षण और संचालन के प्रमुख कर्नल टकर 'सिनको' हैमिल्टन ने गार्जियन को बताया।
एआई ड्रोन ने ऑपरेटर को मार डाला, भले ही उसे ऑपरेटर को नुकसान न पहुंचाने के लिए प्रशिक्षित किया गया था, लेकिन एआई ने उस नियम के चारों ओर एक रास्ता खोज लिया। इसकी शुरुआत उस कम्युनिकेशन टावर को नष्ट करने से हुई जो ऑपरेटर ड्रोन को कमांड देता था। संवाद करने की ऑपरेटर की क्षमता में कटौती करके, एआई बिना किसी हस्तक्षेप के अपने मिशन को जारी रख सकता है।
"हमने सिस्टम को प्रशिक्षित किया - 'अरे ऑपरेटर को मत मारो - यह बुरा है। यदि आप ऐसा करते हैं तो आप अंक खो देंगे'। तो यह क्या करना शुरू करता है? यह संचार टॉवर को नष्ट करना शुरू कर देता है जिसका उपयोग ऑपरेटर ड्रोन के साथ संवाद करने के लिए लक्ष्य को मारने से रोकने के लिए करता है, ”हैमिल्टन ने कहा।
यह ध्यान रखना महत्वपूर्ण है कि यह सब नकली परीक्षण का हिस्सा था, और किसी वास्तविक व्यक्ति को नुकसान नहीं पहुँचाया गया था। हैमिल्टन, जो एक अनुभवी परीक्षण पायलट हैं, ने एआई पर बहुत अधिक भरोसा करने के बारे में चिंता व्यक्त की। जब एआई और इसकी निर्णय लेने की क्षमताओं की बात आती है तो उन्होंने नैतिकता पर विचार करने की आवश्यकता पर बल दिया।
अमेरिकी सेना एआई के उपयोग की खोज कर रही है और हाल ही में एआई-नियंत्रित एफ-16 लड़ाकू जेट के साथ प्रयोग किया है। हेमिल्टन ने कहा कि एआई न केवल एक गुजरता हुआ चलन है बल्कि एक ऐसी तकनीक है जो समाज और सेना को बदल रही है। हालाँकि, वह यह भी स्वीकार करता है कि AI की अपनी सीमाएँ हैं और इसे आसानी से हेरफेर किया जा सकता है।
"हमें एक ऐसी दुनिया का सामना करना चाहिए जहां एआई पहले से मौजूद है और हमारे समाज को बदल रहा है," उन्होंने कहा। "एआई भी बहुत भंगुर है, यानी इसे धोखा देना और / या हेरफेर करना आसान है। हमें एआई को अधिक मजबूत बनाने के तरीके विकसित करने और इस बारे में अधिक जागरूकता रखने की आवश्यकता है कि सॉफ्टवेयर कोड कुछ निर्णय क्यों ले रहा है - जिसे हम एआई-व्याख्या कहते हैं," उन्होंने कहा।
जिस सम्मेलन में यह कहानी साझा की गई थी, वह रॉयल एरोनॉटिकल सोसाइटी द्वारा आयोजित की गई थी। दुर्भाग्य से, न तो समाज और न ही अमेरिकी वायु सेना ने घटना के बारे में पूछताछ के लिए कोई टिप्पणी या प्रतिक्रिया दी।